\(\left\{{}\begin{matrix}mx+y=3\left(1\right)\\4x+my=6\left(2\right)\end{matrix}\right.\) 

TH1: m=0 có nghiệm:\(\left\{{}\begin{matrix}x=\dfrac{6}{4}\\y=3\end{matrix}\right.\) ( Thỏa mãn điều kiện đề bài ) => nhận m=0

TH2: m khác 0 \(\dfrac{m}{4}\ne\dfrac{1}{m}\Leftrightarrow m\ne\pm2\) 

\(\left\{{}\begin{matrix}\left(1\right)\Rightarrow y=3-mx\\\left(2\right)\Rightarrow x=\dfrac{6-my}{4}=\dfrac{6-m\left(3-mx\right)}{4}\end{matrix}\right.\) 

\(\Rightarrow\left(m^2-4\right)x=3m-6\) \(\Rightarrow x=\dfrac{3}{m+2}\) đối chiếu điều kiện: (x>1)

\(\Rightarrow\dfrac{3}{m+2}-1>0\) \(\Leftrightarrow\dfrac{1-m}{m+2}>0\)

TH1: \(\left\{{}\begin{matrix}1-m< 0\\m+2< 0\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}m>1\\m< -2\end{matrix}\right.\) ( Loại )

TH2: \(\left\{{}\begin{matrix}1-m>0\\m+2>0\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}m< 1\\m>-2\end{matrix}\right.\) ( Nhận ) \(\Rightarrow m\in\left(-2;1\right)\) 

Đối chiếu điều kiện: y>0 \(\Leftrightarrow3-m\left(\dfrac{3}{m+2}\right)>0\) 

\(\Leftrightarrow\dfrac{2}{m+2}>0\) \(\Leftrightarrow m>-2\) 

Gộp cả 2 điều kiện x và y ta được m=-1 và m=0 

Nãy giờ gõ nó cứ bị lỗi :D 

a: Thay m=1 vào hệ phương trình, ta được:

\(\left\{{}\begin{matrix}x-y=1\\2x+y=4\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}3x=5\\x-y=1\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}x=\dfrac{5}{3}\\y=x-1=\dfrac{5}{3}-1=\dfrac{2}{3}\end{matrix}\right.\)

b: Để hệ có nghiệm duy nhất thì \(\dfrac{m}{2}\ne-\dfrac{1}{m}\)

=>\(m^2\ne-2\)(luôn đúng)

\(\left\{{}\begin{matrix}mx-y=1\\2x+my=4\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}y=mx-1\\2x+m\left(mx-1\right)=4\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}y=mx-1\\x\left(m^2+2\right)=m+4\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}x=\dfrac{m+4}{m^2+2}\\y=\dfrac{m\left(m+4\right)}{m^2+2}-1=\dfrac{m^2+4m-m^2-2}{m^2+2}=\dfrac{4m-2}{m^2+2}\end{matrix}\right.\)

x+y=2

=>\(\dfrac{m+4+4m-2}{m^2+2}=2\)

=>\(2m^2+4=5m+2\)

=>\(2m^2-5m+2=0\)

=>(2m-1)(m-2)=0

=>\(\left[{}\begin{matrix}2m-1=0\\m-2=0\end{matrix}\right.\)

=>\(\left[{}\begin{matrix}m=\dfrac{1}{2}\\m=2\end{matrix}\right.\)

Lời giải:
Từ PT$(1)\Rightarrow x=m+1-my$. Thay vô PT(2):

$m(m+1-my)+y=3m-1$

$\Leftrightarrow y(1-m^2)+m^2+m=3m-1$

$\Leftrightarrow y(1-m^2)=-m^2+2m-1(*)$

Để hpt có nghiệm $(x,y)$ duy nhất thì pt $(*)$ cũng phải có nghiệm $y$ duy nhất 

Điều này xảy ra khi $1-m^2\neq 0\Leftrightarrow m\neq \pm 1$
Khi đó: $y=\frac{-m^2+2m-1}{1-m^2}=\frac{-(m-1)^2}{-(m-1)(m+1)}=\frac{m-1}{m+1}$

$x=m+1-my=m+1-\frac{m(m-1)}{m+1}=\frac{3m+1}{m+1}$

Có:

$x+y=\frac{m-1}{m+1}+\frac{3m+1}{m+1}=\frac{4m}{m+1}<0$

$\Leftrightarrow -1< m< 0$

Kết hợp với đk $m\neq \pm 1$ suy ra $-1< m< 0$ thì thỏa đề.

Hệ \(\Leftrightarrow\left\{{}\begin{matrix}x=3m-my\\mx-y=m^2-2\end{matrix}\right.\)

\(\Rightarrow m\left(3m-my\right)-y=m^2-2\)

\(\Leftrightarrow2m^2+2=y\left(1+m^2\right)\)

\(\Leftrightarrow y=\dfrac{2m^2+2}{1+m^2}=2\)

\(\Rightarrow x=3m-2m=m\)

Có \(x^2-2x-y>0\Leftrightarrow m^2-2m-2>0\)

\(\Leftrightarrow\left(m-1-\sqrt{3}\right)\left(m-1+\sqrt{3}\right)>0\)

\(\Leftrightarrow\left[{}\begin{matrix}m>1+\sqrt{3}\\m< 1-\sqrt{3}\end{matrix}\right.\)

Vậy...

\(\left\{{}\begin{matrix}mx-y=2\\x+my=3\end{matrix}\right.\\ \Leftrightarrow\left\{{}\begin{matrix}y=mx-2\\x+m\left(mx-2\right)=3\end{matrix}\right.\\ \Leftrightarrow\left\{{}\begin{matrix}y=mx-2\\x+m^2x-2m=3\end{matrix}\right.\\ \Leftrightarrow\left\{{}\begin{matrix}y=mx-2\\x\left(m^2+1\right)=3+2m\end{matrix}\right.\\ \Leftrightarrow\left\{{}\begin{matrix}y=m.\dfrac{3+2m}{m^2+1}-2\\x=\dfrac{3+2m}{m^2+1}\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}y=\dfrac{3m+2m^2-2m^2-2}{m^2+1}\\x=\dfrac{3+2m}{m^2+1}\end{matrix}\right.\\ \Leftrightarrow\left\{{}\begin{matrix}y=\dfrac{3m-2}{m^2+1}\\x=\dfrac{3+2m}{m^2+1}\end{matrix}\right.\)

\(x+y=0\\ \Leftrightarrow\dfrac{3m-2}{m^2+1}+\dfrac{3+2m}{m^2+1}=0\\ \Leftrightarrow\dfrac{3m-2+3+2m}{m^2+1}=0\\ \Rightarrow4m+1=0\\ \Leftrightarrow m=-\dfrac{1}{4}\)

x+y=0 \(\Rightarrow\) y=-x.

\(\left\{{}\begin{matrix}mx-y=2\\x+my=3\end{matrix}\right.\) \(\Rightarrow\) \(\left\{{}\begin{matrix}mx+x=2\\x-mx=3\end{matrix}\right.\) \(\Rightarrow\) \(\left\{{}\begin{matrix}x\left(m+1\right)=2\\x\left(1-m\right)=3\end{matrix}\right.\) \(\Rightarrow\) \(\dfrac{2}{m+1}=\dfrac{3}{1-m}\) \(\Rightarrow\) m=-1/5 (nhận).